Chùa được xây dựng dưới thời Trần rồi trở thành đại danh lam dưới thời thiền sư Pháp Loa (1284-1330) và người kế nhiệm là thiền sư Huyền Quang (1254-1334). Nghiên cứu cho thấy bản thân Pháp Loa, cho đến năm 1329 đã mở mang và xây dựng hai khu chùa lớn là chùa Báo Ân (phủ Siêu Loại, Bắc Ninh, nay là xã Dương Quang, Gia Lâm, Hà Nội) và chùa Quỳnh Lâm, Đông Triều (Quảng Ninh), riêng chùa Báo Ân đã cho xây 33 cơ sở gồm điện Phật, gác chứa kinh và tăng đường. Ông còn dựng các am như Hồ Thiên, Chân Lạc, Yên Mã, Vĩnh Khiêm. Hạc Lai, mở rộng các khu chùa Thanh Mai và chùa Côn Sơn.[3] Như vậy chùa Thanh Mai không phải do Pháp Loa xây dựng mà chỉ mở rộng và phát triển thành một chốn Tổ của phái Trúc Lâm. Trải qua các biến cố lịch sử, sự tàn phá của thiên nhiên, chiến tranh ngôi chùa cổ đã sụp đổ, các cổ vật bị mất và hư hại gần hết, di tích trở thành hoang phế và bị lãng quên.

Năm 1980, với mong muốn phục dựng và bảo tồn một di tích lịch sử quan trọng, chùa đã được đầu tư khôi phục dần dần theo từng hạng mục. Năm 1992, chùa Thanh Mai đã được Bộ Văn hóa Thông tin và thế thao công nhận là Di tích lịch sử văn hóa cấp quốc gia. Nhưng quy mô nhỏ hẹp, lại ở nơi heo hút, đường sá đi lại khó khăn, chùa Thanh Mai vẫn bị chìm trong quên lãng. Năm 1994, Sư thầy Thích Chí Trung được cử về trụ trì tại chùa. Khi đó thực trạng ngôi chùa rơi vào cảnh hoang tàn, đổ nát. Trăn trở trước nguy cơ biến mất của di tích, sư thầy đã vận động đóng góp công đức trùng tu, khôi phục lại chùa. Từ năm 1994-2000, với sự hỗ trợ của Sở Giao thông - Vận tải và Công ty Điện lực Hải Dương, 2 km đường lên chùa được mở, 1 km đường điện chiếu sáng được mắc, tháp Viên Thông được phục dựng.[4]

Ngày mất của Đệ nhị tổ Pháp Loa (ngày 3 tháng 3 âm lịch) được chọn làm ngày lễ hội của chùa. Hội chùa Thanh Mai diễn ra vào ngày mùng một đến mùng ba tháng Ba âm lịch hằng năm. Lễ hội được nhân dân địa phương và các tăng ni phật tử tổ chức trọng thể với nhiều nghi lễ như giảng kinh, chay đàn, mộc dục[5].